Retrospective Progress-Aware Self-Refinement for LLM Agent Training
回顾式进度感知训练：让LLM智能体在长程任务中自我反思
🧭 LLM智能体训练 · 进度元认知 ★ 深度解读
Shanghai Jiao Tong University · OPPO Research Institute
提出RePro框架，通过前向执行-回顾反思范式训练智能体从已完成轨迹中学习进度估计，以辅助长程任务决策，无需额外奖励模型
📌 工作参考价值（4 点）
- 长程多步决策中引入进度信号：在电商导购、多轮对话等 multi-step agent 场景，可借鉴 RePro 的前向-回顾范式，让模型在完成完整交互后重新标定每一步的完成度，以此作为辅助训练信号，缓解稀疏奖励问题。
- 过程奖励设计思路：复合奖励（进度塑造 + 在线-回顾对齐 + 格式正则化）避免了训练昂贵的独立过程奖励模型，可直接接入 GRPO/GiGPO 等现有 RL 训练管线，适合需要快速迭代的工业界 agent 训练。
- 元认知评估指标：使用 Intermediate Discrimination（成功与失败轨迹的最终进度差）作为进度估计质量的代理指标，可应用于 agent 上线前的离线评估，判断模型是否具备可靠的自我诊断能力。
- 低成本冷启动模板：利用少量外部 LLM 生成的回顾演示进行 SFT 预热，即可建立格式正确的反思行为，然后通过 RL 逐步内化，适合在业务数据上以较少样本启动 agent 的自我反思能力。